那真的是你拒绝的原因吗？

原文：https://www.readthesequences.com/Is-That-Your-True-Rejection

有时候，人们会遇到一些我的与超人类主义相关的观点——这些观点和我的关于人类理性的看法不同——比如超智能和友好人工智能。这些观点听起来怪异、奇异，他们便会拒绝它们。

如果被要求解释为什么拒绝，常常会听到这样的回答：「我为什么要相信 Yudkowsky （本文作者）说的话？他没有博士学位！」

偶尔，还有人会在旁边听到后说：「哦，你应该拿个博士学位，这样别人才会听你的。」或者，甚至是那个最初不相信的人自己也会说：「等你有了博士学位再来吧。」

当然，拿博士学位有或好或坏的理由，但这绝对是一个不好的理由。

有人对「超人类主义」命题确实产生负面反应的原因有很多，大多数其实是基于「模式识别」，而非深思熟虑的语言表达：这个命题让他们联想到「怪异的想法」或 「科幻 」或「末日邪教 」或 「过于热情的年轻人」。

因此，转瞬之间，观点就被拒绝了。如果之后有人问：「为什么不呢？」，接下来就会进入一种寻找合理性的过程。但这种寻找未必能触及到「真正的原因」——我所说的「真正的原因」，不是指能提供的最好理由，而是指在拒绝发生的第一时间，就对历史事实（对观点的拒绝）起决定性作用的因素。

相反，寻找理由时，他们可能会停留在这样一个看似合理的事实上：「这个讲者没有博士学位。」

但当我谈论人类理性时，我同样也没有博士学位，为什么同样的反对意见不会出现呢？

更重要的是，即便我有博士学位，人们也不会把这个作为一个决定性因素来认为他们应该相信我说的每一句话。相反，初始的拒绝依然会发生，原因是相同的；之后，寻找合理性的过程会停留在另一个结论上。

他们可能会说：「为什么要相信你？你不过是个有博士学位的人！这种人多了去了。等你在自己的领域出名，且在一所大学里有了终身职位再来吧。」

但人们真的会相信哈佛教授们随意说的奇怪的话吗？当然不会。（不过，如果我真是哈佛的教授，的确会更容易引起媒体的关注。那些最初不相信我的记者——他们可能同样不愿意相信一个随便的博士学位持有者——仍然会报道我，因为哈佛教授会相信这样奇怪的事情，这本身就成了新闻。）

如果你说的话对外行人听起来是错误的，而且不是随口念出一些听似玄妙的术语，比如「关于 N+2 维空间中的轻夸克编织」；而听者又是个外行，对你本人和你的领域内容都不熟悉；那么我怀疑，纯粹因为学历，如果真有能让普通人真正开始相信覆盖他们最初印象的东西的人，大概是在诺贝尔奖得主的级别吧。粗略来看，你需要一种能被认为「超凡脱俗」的学历。

据我所知，这大概就是 Eric Drexler 所经历的情况。他提出了纳米技术的愿景，但人们却说：「技术细节在哪里？」或者「等你拿到博士学位再说！」。于是，Eric Drexler 花了六年时间写出了技术细节，并在 Marvin Minsky 指导下获得了博士学位。《纳米系统》（Nanosystems）是一本很棒的书。然而，那些曾说过「等你拿到博士学位再来」的人，是否真的改变了对分子纳米技术的看法呢？据我所知，似乎并没有。

同样，对于人工智能研究所（Machine Intelligence Research Institute，本文作者是该研究所的一名研究员）来说，似乎有一个普遍的规律：无论我们做什么来提高可信度，实际上做了之后，情况也没什么变化。「你们有做什么代码开发吗？我不想支持一个不开发代码的组织」 → OpenCog → 结果没什么变化。「Eliezer Yudkowsky 缺乏学术背景」→ Professor Ben Goertzel 被任命为研究主任 → 结果依然没有变化。唯一似乎真的已经提高我们可信度的，还是一些名人和我们组织的关联，比如 Peter Thiel 资助我们，或者 Ray Kurzweil 加入董事会。

这对年轻的企业和刚刚起步的顾问来说，可能是一个重要的提醒——你听到的潜在客户或投资人告诉你的拒绝理由，可能并不是决定性因素；在付出巨大努力之前，你应该仔细思考这一点。如果潜在投资人说：「如果你的销售增长能再快一点就好了！」或者潜在客户说：「看起来不错，但你们缺少了功能 X」，这可能并不是真正的拒绝理由。即使你解决了这个问题，结果也不一定会有实质性的改变。

这也是在争论中需要牢记的一点。我和 Robin Hanson 有一个共同的信条，那就是两个理性主义者不应该同意存在分歧：他们不应该对认识论上的分歧有共识，除非事情错的非常离谱。

我怀疑，一般来说，如果两个理性主义者决定解决一个争论，并且这个争论在第一次交流后仍然存在，他们应该预期到，真正的分歧根源要么很难沟通，要么很难暴露。比如：

  • 不常见，但有充分支持的科学知识或数学

  • 长推理距离；

  • 难以言表的直觉，可能源自特定的可视化；

  • 从某个专业继承的时代气息（这可能有充分的理由）；

  • 从经验中感知到的模式；

  • 纯粹的思维习惯；

  • 对特定结果的确信情感；

  • 对过去错误被推翻的恐惧；

  • 为了面子或其他个人利益进行的深度自我欺骗。

如果一个问题中的所有真实拒绝理由都能轻易摆到桌面上，争论可能会非常简单地解决，也许不会在第一次会议后持续下去。

「这真的是我拒绝的原因吗？」是所有争论者在讨论中都应当问自己的问题，以便让对方更容易理解。然而，据我观察，试图直接、公开地对他人进行心理分析可能会导致交流很快恶化。

尽管如此——「那真的是你拒绝的原因吗？」应该是争论者可以谦虚地询问的问题，如果这能带来某种有意义的进展。或许规则可以是这样：你可以公开问：「这个简单直接的理由是你真正的拒绝吗，还是它来自于直觉 X 或者专业领域的时代气息 Y？」而那些更为尴尬的可能性，应该留给对方的良知去处理，作为他们自己承担的责任。